[レポート]AWS上の生成型AIのセキュリティ確保 #PEX308-R

AWS認定トレーニング講師の平野@おんせん県おおいたです。

今日は「Securing generative AI on AWS」というタイトルのチョークトークセッションについてレポートします。

公式セッション紹介（日本語訳）

概要

まずチョークトークセッションについて説明します。元々は黒板(ホワイトボード)に書きながら、議論をしていく形式のセッションになります。実際はスライドも準備されていることが多い気がします。

右にホワイトボードがあり、カメラでスクーリーンにも投影されます

今回も15分程度のスライドで説明し、残りの45分がQ&Aという感じでした。時間ギリギリまで質問が連続する充実した内容でした。

このセッションのポイントは、生成AIのセキュリティについての基本的な考え方です。これは、どのように生成Aiアプリケーションを構築するかで、アプローチが異なってきます。それを整理したのが、Generative AI Security Scoping Matrix です。

生成AIのリスクは、これは下記に集約されます

• ジェネレーティブAIアプリケーションをどのように構築するのか
• トレーニングデータを使用するのかしないのか、
• トレーニングデータを持つサードパーティを使用するのかしないのか、
• サードパーティがトレーニングデータとして使用するドキュメントを公開する際の要件があなたの要件に合っているのかどうか

これを元にリスクアセスメントを進めることになります。
そのフレームワークとしては、次のようなものがあるそうです。

戦略的には基盤モデルのセキュリティとアプリケーションセキュリティを検討するのですが、これらは従来のセキュリティ戦略を元に対応していくことになります。

ただ、生成AIに関する特性も考慮していく必要もあります。

ここまでが、スライドによる説明の概要です。
Q&Aは様々な視点で様々な立場の方が質問されていました。詳細は割愛します。

まとめ

トークセッションの概要を紹介しました。セキュリティという点では、基本は従来と変わらないが生成AI特有の対応（ガードレールなど）も必要であるので、今後も着目していきたいと思いました。